(網(wǎng)經(jīng)社訊)12月4日，北京消協(xié)聯(lián)合京東、美團(tuán)、拼多多、唯品會(huì)、抖音、快手、小紅書、微信直播等8家電商平臺(tái)，正式簽訂全國(guó)首份《促進(jìn)AI（人工智能）技術(shù)規(guī)范應(yīng)用承諾書》（下稱《承諾書》），從技術(shù)標(biāo)識(shí)、內(nèi)容審核、責(zé)任追溯等環(huán)節(jié)建立企業(yè)自律規(guī)范，提出六大具體舉措，劃定AI技術(shù)應(yīng)用“合規(guī)紅線”，壓實(shí)平臺(tái)企業(yè)主體責(zé)任，維護(hù)消費(fèi)者合法權(quán)益。
近年來，AI數(shù)字人直播、虛擬場(chǎng)景帶貨等新技術(shù)應(yīng)用快速普及，在提升消費(fèi)體驗(yàn)的同時(shí)，部分商家的違規(guī)操作也引發(fā)消費(fèi)者廣泛擔(dān)憂。據(jù)網(wǎng)經(jīng)社數(shù)字零售臺(tái)（DR.100EC.CN）了解，北京消協(xié)歷時(shí)3個(gè)月開展專項(xiàng)調(diào)查，通過問卷調(diào)研、體驗(yàn)式調(diào)查、專家研討等方式，鎖定當(dāng)前AI合成技術(shù)應(yīng)用中侵害消費(fèi)者權(quán)益的三大突出問題：
一是消費(fèi)者知情權(quán)保障不足，“真假難辨”困擾普遍存在。據(jù)3162份有效回收問卷調(diào)查數(shù)據(jù)，近九成的受訪者呼吁“AI生成內(nèi)容需顯著標(biāo)識(shí)”，超七成接受虛擬背景但強(qiáng)調(diào)需有顯著提示；超六成認(rèn)為AI數(shù)字人“缺乏真情實(shí)感”，近三成擔(dān)憂其“可能誤導(dǎo)消費(fèi)決策”。
二是合成技術(shù)濫用滋生消費(fèi)風(fēng)險(xiǎn)，“虛假營(yíng)銷”問題凸顯。針對(duì)電商平臺(tái)的AI數(shù)字人、AI場(chǎng)景直播帶貨行為，北京消協(xié)通過“模擬消費(fèi)者在直播間購(gòu)物+線下比對(duì)實(shí)物”的方式，對(duì)10個(gè)AI數(shù)字人直播帶貨樣本開展體驗(yàn)調(diào)查。調(diào)查發(fā)現(xiàn)：5個(gè)樣本在直播界面標(biāo)注“AI生成”“擬真場(chǎng)景”等提示信息，5個(gè)樣本沒有對(duì)體驗(yàn)人員的問題進(jìn)行及時(shí)回應(yīng)或互動(dòng)；6個(gè)樣本存在未提示私下交易風(fēng)險(xiǎn)等問題。此外，部分網(wǎng)絡(luò)直播中存在利用公眾信任謀取不當(dāng)利益的情況，近期網(wǎng)信部門也處置了一批利用AI換臉技術(shù)仿冒公眾人物開展直播營(yíng)銷的網(wǎng)絡(luò)賬號(hào)。
三是平臺(tái)審核機(jī)制存在短板，“風(fēng)險(xiǎn)防控”能力有待提升。經(jīng)與專家研討調(diào)研發(fā)現(xiàn)，當(dāng)前部分電商平臺(tái)尚未建立健全AI內(nèi)容審核專項(xiàng)制度，對(duì)商家使用AI數(shù)字人、虛擬場(chǎng)景等技術(shù)缺乏有效管理規(guī)則和精準(zhǔn)識(shí)別技術(shù)，導(dǎo)致消費(fèi)者在購(gòu)物過程中難以快速辨別信息真?zhèn)?，增加了消費(fèi)決策風(fēng)險(xiǎn)。
針對(duì)上述問題，《承諾書》以“標(biāo)識(shí)透明、審核嚴(yán)格、責(zé)任可溯”為核心，提出六大具體措施，為AI技術(shù)在電商領(lǐng)域的合規(guī)應(yīng)用劃定“紅線”。北京消協(xié)相關(guān)負(fù)責(zé)人表示，下一步，消協(xié)組織將持續(xù)跟蹤網(wǎng)絡(luò)AI技術(shù)應(yīng)用動(dòng)態(tài)，組織志愿者體驗(yàn)直播間購(gòu)物、追蹤反饋實(shí)際感受，督促企業(yè)嚴(yán)格落實(shí)承諾內(nèi)容。同時(shí)，通過線上線下多渠道開展消費(fèi)教育活動(dòng)，向廣大消費(fèi)者普及AI技術(shù)常識(shí)，提升消費(fèi)者辨別虛假內(nèi)容的能力與防范意識(shí)。通過多方協(xié)作、多維施策，構(gòu)建“技術(shù)合規(guī)、平臺(tái)履責(zé)、消費(fèi)安心”的網(wǎng)絡(luò)消費(fèi)環(huán)境。
